KI Sumber Terbuka: Tindakan Keseimbangan antara Transparansi dan Keamanan

24/8/2024, 15.44

Perkembangan sistem AI terbuka semakin cepat, namun menghadapi tantangan terkait transparansi dan keamanan.

Eulerpool News 24 Agu 2024, 15.44

Perkembangan Kecerdasan Buatan (AI) Open-Source Telah Mendapatkan Momentum yang Signifikan dalam Beberapa Bulan Terakhir

Salah satu contoh yang menonjol adalah Llama dari Meta. Meskipun "Weights" yang menentukan bagaimana model merespons permintaan diungkapkan, data pelatihan yang mendasarinya tetap tersembunyi. Ini memungkinkan pengembang untuk menyesuaikan model, tetapi kurang transparansi untuk membuat model dari awal.

Untuk Pengembang, Keterbukaan yang Terbatas Ini Tetap Memiliki Keuntungan

Sebagai tanggapan, Open Source Initiative, yang menetapkan definisi perangkat lunak sumber terbuka lebih dari 20 tahun yang lalu, telah mempresentasikan definisi yang hampir final untuk Open-Source AI. Definisi ini tidak hanya menuntut publikasi "Weights", tetapi juga informasi yang memadai tentang data pelatihan dan kode yang mendasarinya untuk dapat mereproduksi model tersebut.

Gerakan ini sudah mengarah pada segmentasi yang lebih kuat di dunia AI. Banyak perusahaan lebih berhati-hati dengan terminologi mereka untuk menghindari perselisihan hukum. Mistral, misalnya, menyebut modelnya Nemo sebagai "Open Weights" dan secara sengaja menghindari istilah "Open Source.

Sementara sistem sebagian terbuka mulai diterima, model-model sepenuhnya terbuka juga mulai muncul seperti model bahasa Olmo dari Allen Institute for AI. Namun, apakah ini benar-benar akan memiliki pengaruh yang sama terhadap dunia AI seperti perangkat lunak open-source terhadap industri teknologi, masih harus dilihat.

Untuk terobosan model KI terbuka, diperlukan dua hal. Pertama, teknologi tersebut harus memenuhi kebutuhan yang cukup besar untuk menarik massa kritis pengguna dan pengembang. Sementara Linux merupakan alternatif yang jelas untuk Microsoft Windows di bidang sistem operasi server, tidak ada padanan yang sebanding di bidang KI. Pasarnya lebih terfragmentasi, dan banyak pengguna mungkin puas dengan model yang sebagian terbuka seperti Llama.

Kedua, para pendukung AI terbuka harus memberikan argumen yang lebih meyakinkan untuk keamanannya. Perspektif untuk membuat teknologi umum yang begitu kuat dapat diakses oleh semua orang menimbulkan kekhawatiran yang sah. Namun, Oren Etzioni, mantan kepala Allen Institute, menganggap banyak ketakutan ini berlebihan. Dia berpendapat bahwa informasi yang dapat diakses oleh model AI tidak jauh berbeda dengan apa yang sudah tersedia melalui Google.

Sampai risiko dan manfaat potensial dari penyediaan teknologi AI terbuka diteliti lebih menyeluruh, kekhawatiran akan tetap ada.

Lakukan investasi terbaik dalam hidupmu
fair value · 20 million securities worldwide · 50 year history · 10 year estimates · leading business news

Mulai dari 2 €

Berita